الشيعة من أصحاب أبيه كانوا ينشدون الحق ويطلبون إمامهم فلا يصلون إليه ولا يستطيع أن يدلهم على نفسه خوفا من أولئك الطغاة الجبارين . وروى المفيد في إرشاده عن هشام بن سالم ، قال : كنا بالمدينة بعد وفاة أبي عبد اللّه عليه السّلام أنا ومحمد بن النعمان صاحب الطاق ، والناس مجتمعون على عبد اللّه بن جعفر ، ظنا منهم أنه صاحب الأمر بعد أبيه ، فدخلنا عليه والناس عنده ، فسألناه عن الزكاة في كم تجب ، فقال في مائتي درهم خمسة دراهم . فقلنا له ففي مائة ! قال درهمان ونصف ، قلنا واللّه ما تقول المرجئة هذا فقال واللّه ما أدري ما تقول المرجئة ، قال فخرجنا ضلالا ما ندري إلى أين نتوجه ، وإلى من نقصد فبينما نحن كذلك إذ رأيت رجلا شيخا لا أعرفه يومي إلي بيده ، فخفت أن يكون عينا من عيون أبي جعفر المنصور ، وكان له بالمدينة جواسيس ، ليعرف على من يجتمع إليه الناس ، فيؤخذ وتضرب عنقه ، فخفت أن يكون ذاك منهم ، فقلت للأحول : تنحّ فاني خائف على نفسي وعليك ، وإنما يريدني ليس يريدك . فتنحى الأحول عني بعيدا ، وتبعت الشيخ وقد ظننت أني لا أقدر على التخلص منه . فما زلت أتبعه ، وقد عزمت على الموت ، حتى ورد بي باب أبي الحسن موسى ، ثم خلاني ومضى ، فإذا خادم على الباب فقال لي ادخل رحمك اللّه ، فدخلت فإذا أبو الحسن موسى عليه السّلام ، ومضى الراوي في روايته إلى أن قال : فقلت أفأنت الإمام بعد أبيك ؟ قال لا أقول ذلك ! فقلت في نفسي لم أصب طريق المسألة ، ثم قلت له أعليك إمام ؟ قال لا ! قال فدخلني شيء لا يعلمه إلا اللّه إعظاما وتهيبا ، ثم قال له : أسألك كما كنت أسأل أباك ، قال سل ولا تذع فإن أذعت فهو الذبح ، وبعد أن سأله عما يريد قال له إن شيعة أبيك ضلال ، فالق إليهم هذا الأمر وادعهم إليك ، فقد أخذت علي الكتمان قال من أنست منهم رشدا فالق بهم وخذ عليهم الكتمان . ومهما يكن الحال ، فقد عاش بقية أيام المنصور وموسى الهادي